Ông được xem là một trong những nhà lãnh đạo có đường lối cứng rắn, đóng vai trò chủ yếu trong việc xây dựng ngành công an của nước Việt Nam thống nhất thời tại vị (1986-1991). Ông được Nhà nước Việt Nam phong hàm Đại tướng Công an Nhân dân đầu tiên của Việt Nam (ngành An ninh) vào tháng 5 năm 1989.

Cùng với hai vị lãnh đạo khác ở thành phố Hồ Chí Minh lúc bấy giờ là cố Tổng bí thư Nguyễn Văn Linh và cố Thủ tướng Võ Văn Kiệt, ông Mai Chí Thọ là người ủng hộ và khởi xướng cho thời kỳ Đổi Mới ở Thành phố Hồ Chí Minh từ trước năm 1986.

Ngày 12 tháng 1 năm 2007, ông được trao tặng Huân chương Sao Vàng, huân chương cao quý nhất của nhà nước Việt Nam.[5][6]

Ông còn được tặng thưởng các huân chương, huy hiệu cao quý khác: Huân chương Hồ Chí Minh, Huân chương Quân công hạng Nhất, Huy hiệu 60 năm tuổi Đảng, Huân chương Lao động hạng Nhất...

Tên của ông được Hội đồng Nhân dân TP Hồ Chí Minh đặt cho đại lộ trung tâm Khu đô thị mới Thủ Thiêm quận 2, TP Hồ Chí Minh tuyến đường mới phần phía đông dự án Đại lộ Đông - Tây (thuộc địa bàn quận 2) đã hoàn thành và đưa vào sử dụng ngày 20/11/2011 và đoạn từ đường hầm sông Sài Gòn phía quận 2 đến xa lộ Hà Nội (nút giao Cát Lái). Tại Hà Nội, tên của ông được đặt cho một con đường chạy qua phía tây khu đô thị Việt Hưng đến khu đô thị sinh thái Vinhomes Riverside, nối với đường Hội Xá.